Alfred von Waldersee đã chào đời tại Potsdam, trong một gia đình quý tộc quân sự. Sau khi học ở một số trường thiếu sinh quân, ông được bổ nhiệm vào Quân đoàn Pháo binh của Quân đội Phổ vào năm 1850, với quân hàm Trung úy. Ông sớm làm đẹp lòng các cấp trên của mình. Trong chiến dịch lớn đầu tiên của ông, cuộc Chiến tranh Áo-Phổ vào năm 1866, ông phụng sự như một sĩ quan hầu cận của Thượng tướng Pháo binh Hoàng thân Friedrich Karl của Phổ, và ông tham chiến cùng với Friedrich Karl tại trận Königgrätz-Sadowa. Trong diễn tiến của chiến dịch, Bá tước Waldersee đã lên quân hàm Thiếu tá và được tiến cử vào Bộ Tổng tham mưu. Kể từ đó, ông phục vụ trong bộ tham mưu của Quân đoàn X, một đơn vị mới được thành lập ở Vương quốc Hanover đã bị Phổ chinh phạt trong cuộc chiến. Vào tháng 1 năm 1870, ông trở thành tùy viên quân sự trong Đại sứ quán Phổ tại Paris. Trên cương vị này, ông đã thu thập tin tức về thực lực quân đội Pháp cùng với mọi thông tin khác về nền quân sự Pháp, và những điều mà ông thu thập được sẽ trở nên quý giá trong các chiến dịch quân sự sắp sửa xảy ra.

Trong cuộc Chiến tranh Pháp-Đức (1870 – 1871), Thượng tá Bá tước Waldersee, được thừa nhận vì tài nghệ quân sự và sự hiểu biết của ông về các lực lượng vũ trang của kẻ địch, đã trở thành cộng sự đắc lực nhất của "Tổng tư lệnh tối cao" của Phổ, Vua Wilhelm I. Ông tham gia trong các trận đánh lớn xung quanh Metz, được bổ nhiệm vào bộ tham mưu của tướng Friedrich Franz, Đại Công tước xứ Mecklenburg-Schwerin; và về sau ông tham chiến trong các chiến dịch chống lại Binh đoàn Loire của nền Cộng hòa Pháp non trẻ do tướng Chanzy chỉ huy. Đại Công tước xứ Mecklenburg là một chiến binh tài giỏi, nhưng không phải là nhà chiến thuật nổi bật, và thắng lợi của ông trong chiến dịch phía Tây chủ yếu là nhờ vào cố vấn của ông, Bá tước von Waldersee.

Sau khi cuộc chiến tranh chấm dứt, Waldersee được tặng thưởng Huân chương Thập tự Sắt hạng nhất, và được bổ nhiệm làm đại diện của Đức tại Paris, và đã thể hiện tài xử trí và thái độ lịch thiệp của mình khi đảm nhiệm chức vụ khó khăn này. Vào cuối năm 1871, Waldersee đã trở thành tư lệnh của Trung đoàn Thương kỵ binh số 13 tại Hanover, và hai năm sau ông được bổ nhiệm làm tham mưu trưởng của Quân đoàn Hanover, đơn vị mà ông đã phục vụ trước năm 1874. Vào ngày 14 tháng 4 năm 1874, ông kết hôn với Mary Esther Lee (1837-1914), con gái thứ ba của thương nhân New York giàu có David Lee và là vợ góa của Vương công Friedrich xứ Schleswig-Holstein. Mary trước kia đã được Hoàng đế Áo phong làm Công nương Nöer. Bà trở thành một người ủng hộ người nghèo tại Phổ và được vinh danh vì lòng trắc ẩn của mình.[4]